기본적인 볼록성은 합과 스케일링을 포함하지만, 점별 최대값을 통해 볼록성의 보존은 점별 최대값 비자명한 볼록 함수를 구성하고 이중성(다이얼리티)을 설정하는 데 기초적인 역할을 합니다. 즉, 볼록 함수들의 불가산 무한 집합이 있어도 그 '상위 개폐'는 여전히 볼록하다고 말합니다. 이 연결 고리는 단순한 선형 성분을 사용하여 복잡한 볼록 형태를 분석할 수 있게 해줍니다.
1. 기술적 정의
함수의 집합 $\{f(\cdot, y) \mid y \in \mathcal{A}\}$에 대해, 점별 최대값은 다음과 같이 정의됩니다:
$$g(x) = \sup_{y \in \mathcal{A}} f(x, y)$$
이 함수의 정의역은 가족 내 모든 함수가 정의되고 최대값이 유한한 점들의 집합입니다:
$$\text{dom } g = \{x \mid (x, y) \in \text{dom } f \text{ for all } y \in \mathcal{A}, \sup_{y \in \mathcal{A}} f(x, y) < \infty\}$$
에피그래프 관점
기하학적으로, 최대값 함수의 에피그래프는 개별 에피그래프의 교집합입니다:
$$\text{epi } g = \bigcap_{y \in \mathcal{A}} \text{epi } f(\cdot, y)$$
각 개별 에피그래프는 볼록 집합입니다($f(x, y)$가 $x$에 대해 볼록이므로), 그리고 어떤 수의 볼록 집합의 교집합도 볼록하기 때문에, $g(x)$의 볼록성이 보장됩니다.
2. 중요한 예시
- 지지 함수: $S_C(y) = \sup \{ y^T x \mid x \in C \}$. 이 함수는 집합 $C$가 볼록인지 여부와 상관없이 항상 볼록합니다. 왜냐하면 $y$에 대한 선형(선형) 함수의 최대값이기 때문입니다.
- 가장 먼 점까지의 거리: $f(x) = \sup_{y \in C} \|x - y\|$. 집합 $C$가 비정형일지라도 $f(x)$는 $x$에 대해 볼록합니다. 왜냐하면 노름이 $x$에 대한 볼록 함수이기 때문입니다.
- 최대 고유값: 대칭 행렬 $X$에 대해, $f(X) = \lambda_{\max}(X)$는 볼록합니다. 이것은 레일리 몫에서 유도됩니다: $\lambda_{\max}(X) = \sup\{y^T X y \mid \|y\|_2 = 1\}$. 이는 $X$에 대한 선형 함수의 최대값입니다.
정리: 아핀 함수로의 표현
정리
거의 모든 볼록 함수는 아핀 함수의 가족(글로벌 하한 근사)의 점별 최대값으로 표현될 수 있습니다.
직관
$x_0$에서 볼록 함수 $f$는 지지 초평면(아핀 함수 $h(x) = f(x_0) + g^T(x-x_0)$)을 가집니다. 이러한 지지 초평면들 중에서 최대값을 취함으로써 우리는 함수 $f$를 정확하게 재구성합니다.
🎯 핵심 원칙
점별 최대값은 볼록성을 보존하고, 점별 최소값은 오목성을 보존합니다. 이것이 노름, 스펙트럼 함수 및 이중 문제의 볼록성의 비밀입니다.
$$g(x) = \sup_{y \in \mathcal{A}} f(x, y) \implies g \text{ is convex if } f(\cdot, y) \text{ is convex } \forall y$$